2021-06-03 第204回国会 参議院 外交防衛委員会 第16号
それで、僕もＬＡＷＳについて質問をしようかなと思ったんですけど、これは先回、三浦委員が割と丁寧にしていただきまして、その前に大塚委員が取り上げられました。
それで、僕もＬＡＷＳについて質問をしようかなと思ったんですけど、これは先回、三浦委員が割と丁寧にしていただきまして、その前に大塚委員が取り上げられました。
今、ＬＡＷＳの話が出たんですが、今、ＡＩですね、ＡＩと通信と測位衛星と、これに車がくっつくと自動運転車ですよ。ＡＩと通信と測位衛星に武器がくっつくとＬＡＷＳなんですよ。おまけに、ＡＩと通信と測位衛星と車の筐体そのものが太陽光を吸収する素材で造られ始めると、永遠に動き続ける自動運転電気自動車ができるわけですね。
この重要土地等調査法案に関わる事項や、冒頭申し上げましたサイバー攻撃やＬＡＷＳに関する事項等を、もう本当に想像を絶する勢いで変化していますので、是非的確な対応をしていただきたいということを改めて申し上げて、質問を終わります。
○国務大臣（茂木敏充君） ＬＡＷＳに関しましては、かなりこれは倫理的な問題から始まって専門知識等々も必要ということでありまして、ＧＧＥにおきまして議論を深めるということでありましたが、去年十一月はコロナの関係で残念ながらこの会合は持てなかった。
○大塚耕平君 今日、三浦委員がお取り扱いになったＬＡＷＳの問題も含めて、もう物すごいスピードで進んでいますので、是非誤りなき対応をしていただきたいと申し上げて、終わります。
次に、致死型完全自律兵器システム、ＬＡＷＳについて質問いたします。 ＬＡＷＳの規制に関する議論について、特定通常兵器使用禁止制限条約、ＣＣＷの政府専門家会合、ＧＧＥで行われてまいりました。コロナ禍により会合が数次にわたって延期をされてまいりましたけれども、今月、六月二十八日からＣＣＷ、ＧＧＥの開催が予定されていると承知をしております。若干流動的かもしれません。
先ほど何か、ｅ―ＬＡＷＳのことを法務省と言い間違えたかもしれませんので、それは総務省ということですが、こういうシステムを独自にそれぞれ持っていて、そして、これを効率よくは全く使っていないんですよね。要するに、手間がかかるように、手間がかかるような仕事のやり方をする。
○平井国務大臣 法制の執務に関して、現在、法務省による法案執務業務支援システム、これはｅ―ＬＡＷＳというやつですね、それと、内閣法制局による法令審査システムなどが運用されています。
今、ｅ―ＬＡＷＳのお話をいただきました。 私自身は、勝手に、イメージとしては、グーグル翻訳みたいに、グーグル条文とかグーグル参考資料みたいなものが軽くあればええのかなというふうに思っておったんですけれども、実はこのｅ―ＬＡＷＳというのが実際あるというのも今回初めて知って、情報ＩＴ総合戦略室にはあって、だけれども、実はそれほど使われていない。
それから、ＲＰＡ、ロボティック・プロセス・オートメーションの手法の導入というお話でございますが、実は、政府内においても、例えば法制支援業務システム、ｅ―ＬＡＷＳの中に新旧対照表から条文案を自動作成する機能を有しているところではありますが、今般の誤りの原因究明において、こうした機能が法案作成の現場で十分に活用できているのかといったことが指摘をされております。
昨日初回会合を開いたとされる再発防止プロジェクトチームにおいては、既に活用されていた法令審査支援システムやｅ―ＬＡＷＳ等についての議論も行うようですが、誤り等を見逃すこととなってしまった背景こそが、私、問題の核心ではないかと思っています。時間不足、人手不足、業務過多が解消されない限り、チェックを幾ら重畳的に行ったとしても、職員の皆さんが疲弊していくばかりではないかと思います。
○田村智子君 先ほど、デジタル化すればミスがなくなっていくんじゃないかと言いましたけど、今回起きたミスの一つは、総務省のｅ―ＬＡＷＳ、電子化されていた法律の条文を取ったら間違っていたと、そこが間違っていた。これ、デジタル化するのも人海戦術なんですよ。誤りなく入力する、慎重に、それすらできていないんですよ。
日本はその真っただ中にいて、先ほど冒頭申し上げましたけれども、僕は、中国というか、国家はゲームチェンジを狙っているプレーヤーであって、巷間使われているゲームチェンジャーという言葉は、そのプレーヤーがどうやって自分たちに有利な状況をつくるかの手段として、例えば、前回であればＬＡＷＳの話が出ました。致死兵器、自律型致死兵器の話が出ました。
無人システムについては、国会等においても取り上げられておりますが、ＬＡＷＳという国際的な動きがございまして、完全自律型、完全自律型で相手を攻撃、人を殺傷するということについては、我が国としてはそういったことは目指さないという姿勢でございます。
○国務大臣（岸信夫君） ＬＡＷＳの考え方については、概略、報告を受けておりますが、詳細については受けていないところもあります。 これは非常にまだその新しい技術、日々進化している技術、ＡＩですね、でありますし、その中で、倫理的な感覚でどこまでがいいのかということのコンセンサスというのはなかなかまだつくれないような状況なんだろうというふうに思います。
今、浅田委員の質疑聞いていて、ＬＡＷＳの話を装備庁長官がされたので、ちょっと付言をしておきたいと思うんですが、ＬＡＷＳについては防衛大臣はレクチャーを受けられたことございますか。そうですか。
次に、自律型致死兵器システム、ＬＡＷＳに関する国際会議について、外務省に伺います。 ＬＡＷＳに関する特定通常兵器使用禁止制限条約、ＣＣＷでは、二〇二〇年から二〇二一年までの政府専門家会合、ＧＧＥの開催を決定をしております。コロナの影響を受け、本年九月にはオンラインでの開催となりました。この際、ロシアは対面での開催を主張してオンラインに参加しないという事態が生じております。
自律型致死兵器システム、いわゆるＬＡＷＳについては、現在、特定通常兵器使用禁止制限条約、ＣＣＷの枠組みの下で議論が行われており、昨年十一月の政府専門家会合において、国際人道法が適用されること、人間の責任が確保されなければならないことなどを内容とした指針が承認され、現在、この指針を基にして、ＬＡＷＳの定義や人間関与の在り方について国際的な議論が行われているところでございます。
○国務大臣（茂木敏充君） ＧＧＥにおけますＬＡＷＳに関する議論に関して、我が国として引き続き、米中ロといった主要国を含め、広く国際社会において共通の認識が得られるように、安全保障の観点も考慮しつつ、国際的なルール作りに委員おっしゃるように積極的に、また建設的に参加をしていきたいと考えております。
大分時間がなくなってきたので簡潔で結構ですが、ことしの十二月、もう来月ですけれども、ＬＡＷＳに関する国際会議を東京で開催するという意向を今年度予算編成の際に外務省は持っていたわけでございますが、このコロナの影響もございます。これを予定どおりされるのか、また、予算ということでいいますと、来年三月末、年度内にこれをやるという意向なのか、簡潔に御答弁を、事務方からで結構でございます。
次に、両大臣に簡潔にお伺いをいたしますが、ここ数年、特定通常兵器使用禁止制限条約、いわゆるＣＣＷの会合で集中的に議論されてきましたＬＡＷＳ、これは自律型致死兵器システムでございますが、別名完全自律型ＡＩ兵器等とも呼ばれておりますが、日本政府の基本的な立場を確認したい。 これは、私の理解では、日本はＬＡＷＳを開発しないということを明言しているということであります。
○岸国務大臣 委員お尋ねのＬＡＷＳ、この定義については、まだ国際的にはコンセンサスが得られていないもの、こういうふうに承知をしております。 その上で、これまで答弁してきたとおり、防衛省・自衛隊においては、人間が介在しない致死性の兵器は現存せず、これに関する研究開発を行う具体的な計画はありません。
自律型致死兵器システム、ＬＡＷＳに関しては、有意な人間の関与が必須であり、国際人道法が適用されるべきとの点について共通認識が形成されつつありますが、その定義や人間の関与の在り方等の論点について各国の立場に引き続き隔たりがある状況です。 我が国は、完全な自律型の致死性を有する兵器の開発を行う意図は有していないとの立場を明確にしてきています。
人工知能を備え、自動で標的を識別して攻撃の判断をする自律型致死兵器システム、いわゆるＬＡＷＳへの脅威も高まっています。この規制に関し、国連の専門家会合が開かれ、国際人道法を遵守するなどの指針を盛り込んだ報告書がまとめられました。法的拘束力はないものの、事実上初めて国際ルールができたことは評価に値します。
ＬＡＷＳの問題については、数年前より国連の特定通常兵器使用禁止制限条約の締約国会議の中に非公式専門家会議、その後、政府専門家会議という形で議論が進んできております。今年の八月に今年度の会議が、政府専門家会議が開催されて、そこで締約国会議に結論を提出するという段取りになっております。
佐藤参考人は、完全自律型の致死性兵器システム、いわゆるＬＡＷＳの御専門家でもいらっしゃいますけれども、私も委員会の中でも何回か質問をさせていただいておりまして、このＬＡＷＳというのは規制が必要であるというふうに考えております。
具体的には、自律型致死兵器システム、ＬＡＷＳと申しますけれども、これについては、現在、ＣＣＷ、特定通常兵器使用禁止制限条約の枠組みにおいて国際的な議論が行われているところでございます。
しかし、まだ各国の考え方というのに大きな隔たりがあるというのも今回はっきりしたわけでございますが、今回は、議長から、議論がまとまっている点とまだ引き続き隔たりのある点、これを整理をするという取組が行われまして、規制すべきＬＡＷＳの特徴、人間の関与のあり方、今後の取りまとめの進め方、こういうことについて今回活発な議論が行われましたが、残念ながら、各国の認識、立場、隔たりを全て埋めることはできませんでした
本日議題となっております日加、日仏ＡＣＳＡについての質問の前に、二問、先般、ジュネーブで開催をされましたＣＣＷのＬＡＷＳ、自律型致死兵器システム、これの規制に関する政府専門家会合の概要と成果について、河野外務大臣にお伺いをしたいと思います。
○内閣総理大臣（安倍晋三君） 現在、自律型致死兵器システム、ＬＡＷＳについては、その使用における人間の関与、国際人道法上の課題等について国際的な議論が行われている途上にあります。各国の立場には、ただいま外務大臣からも答弁させていただきましたが、いまだ大きく隔たりがありまして、共通の認識を得られる状況には残念ながら達してはいません。
次に、ＬＡＷＳ、いわゆる自律型致死兵器システムの開発規制について伺います。
○若松謙維君 総理にお尋ねしたいんですけど、このＬＡＷＳ、もう恐らく国際人道法又は倫理上の観点から看過できないという理解はされていると思いますが、残念ながらこのＬＡＷＳに関する、先ほど外務大臣がお話ししました、各国の立場の隔たりが大きいということでありますけど、やはり国際社会の合意形成に向けた日本の果たす役割は大事ではないかと思いますし、ましてや唯一の被爆国でもあります。
ここで議題に上りますのが、自律型致死兵器システムと、英語で頭文字を取ってＬＡＷＳと言われるんですが、通称、一般的にはキラーロボットと言われるものの開発規制であります。
○国務大臣（河野太郎君） 御指摘ありましたこのＬＡＷＳというのは、火薬あるいは核兵器と並んで戦争の在り方を変えかねない非常に大きな問題だと思っておりますし、また、先般は公明党のＰＴからも中間提言をいただきました。そうしたものを参考にして、今日から始まります専門家会合に対して、日本の考え方をまとめた作業文書を提出をいたしました。
お尋ねの自律型致死兵器システム、いわゆるＬＡＷＳについては、その定義について国際的なコンセンサスが得られている状況ではないというふうに承知しております。 その上で申し上げれば、防衛省としては、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図はなく、また、当然のことながら、国際法や国内法により使用が認められない装備品の研究開発を行うことはないと考えております。
今、どんなものがこのＬＡＷＳに当たり得るのかというお尋ねでございました。
近年、人間の意思の関与なしに人工知能、ＡＩが自律的に攻撃目標を捕捉、選択し、攻撃を実行する自律型致死兵器システム、これＬＡＷＳと呼ばれておりますけれども、このＬＡＷＳの開発とその規制の在り方について、特定通常兵器使用禁止制限条約、ＣＣＷの枠組みの中で非公式会合、専門家会合が開催をされ、昨年十一月には締約国会議に報告書が提出をされております。
防衛大臣に、同じＬＡＷＳについてお伺いをいたします。 今のやり取りの中にございましたけれども、このＬＡＷＳにつきましては、各国状況様々でございまして、定義というものもまだ定まっておりません。
ただいまの御質問のＬＡＷＳ、自律型致死兵器システムについてでございますが、これも遠山先生のお取組に敬意を表したいと思いますが、御案内のように、その定義につきましては国際的なコンセンサスがまだ得られていないというふうに承知をしております。
大臣への質問、最後、三番目ですが、これは前任の小野寺大臣とも質疑をさせていただいたことですが、いわゆる自律型致死性兵器システム、ＬＡＷＳと呼ばれておりますけれども、これは人工知能を搭載した最新鋭の兵器で、まだ実戦配備されたという話は世界じゅうでないわけでございますが、一部の国では真剣に開発をしていると疑われている未来型の兵器であります。
人間の判断が介在せずＡＩが自律的に標的を選択、攻撃する自律型致死兵器システム、ＬＡＷＳ、これが現実のものとなれば、銃の発明、核兵器の開発に続く戦争における第三の革命となってしまいます。これに対し、ＮＧＯや科学者等から深刻な懸念の声が上がっています。公明党としても、国際人道法や倫理上の観点からＬＡＷＳの開発は看過できません。 ＬＡＷＳ開発についての総理の見解を求めます。
自律型致死兵器システム、ＬＡＷＳと呼ばれる、人工知能を搭載し、人間の関与なしに人を殺傷する兵器に関しても、国際的な議論が始まっています。かつて、火薬や核兵器が戦争の在り方を変えたように、人工知能も戦争の在り方を根本から変える可能性があります。